कल, चाँद की अंधेरी सतह के तहत Kimi ओपन प्लेटफार्म ने घोषणा की कि संदर्भ कैशिंग (Context Caching) का सार्वजनिक परीक्षण शुरू हो गया है। यह तकनीक API की कीमतों में बदलाव किए बिना डेवलपर्स के लिए लंबे पाठ फ्लैगशिप बड़े मॉडल के उपयोग लागत को 90% तक कम कर सकती है, और मॉडल की प्रतिक्रिया गति में महत्वपूर्ण वृद्धि कर सकती है।

Kimi ओपन प्लेटफार्म ने हाल ही में घोषणा की है कि लंबे समय से प्रतीक्षित Context Caching फ़ीचर जल्द ही बीटा परीक्षण के लिए शुरू किया जाएगा। यह नवाचार फ़ीचर लंबे पाठ की बड़े मॉडल का समर्थन करेगा और एक प्रभावी संदर्भ कैशिंग तंत्र के माध्यम से उपयोगकर्ताओं को अभूतपूर्व अनुभव प्रदान करेगा। Kimi ओपन प्लेटफार्म के आधिकारिक स्रोत के अनुसार, Context Caching एक अत्याधुनिक तकनीक है, जिसका लक्ष्य दोहराए गए Tokens सामग्री को कैश करके उपयोगकर्ताओं के एक समान सामग्री अनुरोध के समय में लागत को काफी कम करना है। इसका कार्यप्रणाली स्मार्ट पहचान और स्टोर की गई पाठ की पुनरावृत्ति पर आधारित है।